El cofundador de la empresa de IA Anthropic dijo el lunes que el desarrollo de la inteligencia artificial no puede dejarse únicamente en manos de las empresas tecnológicas, e instó a una mayor supervisión por parte de los líderes religiosos, los gobiernos y la sociedad civil.
Durante la presentación de la primera encíclica del Papa León XIII, que aborda los desafíos que plantea la inteligencia artificial , Chris Olah afirmó que existía «una posibilidad real» de que la IA desplazara el trabajo humano «a gran escala». «Si eso sucede, apoyar a los desplazados será un imperativo moral de proporciones históricas», dijo el canadiense, sentado junto al papa. Añadió que empresas como la suya se enfrentan a fuertes presiones comerciales, geopolíticas y personales que pueden estar reñidas con los intereses generales de la sociedad.
«Cada laboratorio de IA de vanguardia… opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto», dijo, y agregó que incluso los investigadores bien intencionados siguen estando influenciados por esas fuerzas. Olah afirmó que esto hacía esencial el escrutinio externo. El evento marcó una convergencia inusual entre el sector tecnológico y la Iglesia Católica, que ha buscado posicionarse como una voz moral sobre las implicaciones de los rápidos avances en inteligencia artificial.
ÚNICO REPRESENTANTE DE LAS GRANDES EMPRESAS TECNOLÓGICAS EN EL VATICANO
Anthropic es una empresa con sede en Estados Unidos que produce las herramientas de IA Claude. Fue fundada en 2021 por Olah y otros exempleados de OpenAI, el desarrollador de IA creado por Sam Altman y Elon Musk, entre otros, que está detrás de ChatGPT. Los fundadores de Anthropic abandonaron a su ahora rival debido a la preocupación de que OpenAI estuviera avanzando demasiado rápido sin realizar pruebas exhaustivas.
Anthropic ha tenido roces con la administración del presidente Donald Trump, en particular al insistir en establecer salvaguardias que restrinjan el uso de sus modelos con fines militares, como el guiado autónomo de armas o la vigilancia interna. Preguntado por Reuters sobre por qué era el único representante de las grandes empresas tecnológicas invitado al evento del Vaticano, Olah destacó su larga trayectoria centrada en la seguridad de la IA y su colaboración con las comunidades religiosas. «En última instancia, es decisión del Vaticano a quién invitan», dijo, y agregó que había dedicado su carrera a trabajar para que los sistemas de IA fueran más seguros y que había dialogado con más de 15 religiones sobre cuestiones planteadas por la tecnología.
‘UN MOMENTO ATERRADOR’
Durante su discurso, Olah celebró la implicación de la Iglesia con la tecnología en rápido desarrollo, afirmando que las cuestiones éticas que plantea la IA van mucho más allá de la ingeniería. Olah afirmó que la preocupación pública por la IA , especialmente entre los jóvenes, era comprensible dada la velocidad de su desarrollo. «Creo que este es un momento aterrador. Las cosas están cambiando muy rápido. Es una tecnología realmente poderosa», dijo a Reuters.
«Existe el riesgo de que las cosas salgan mal, y es responsabilidad de todos nosotros impulsar esto en la dirección correcta.» Olah destacó tres áreas que, según él, requieren atención urgente: el riesgo de pérdidas generalizadas de empleo, la necesidad de garantizar que los beneficios de la IA se extiendan a nivel mundial y la cuestión sin resolver de cómo interpretar el comportamiento cada vez más complejo y, a veces, opaco del sistema. «El desarrollo de la IA se concentra en un puñado de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la IA se compartan a nivel mundial?», preguntó Olah a la audiencia en el Vaticano.
Información de Giselda Vagnoni y Joshua McElwee; Edición de Crispian Balmer y Keith Weir.
Fuente: reuters
